符号理論

情報を何らかの決まりに基づいて別の形にしたりそれを送信したり。そういうことにまつわる諸々の性質について。

符号化の効率についての定理

情報圧縮を用いてどれだけの情報を送れるかについて。
Nielsen & Chuang の第12章参照。

「雑音のない通信路での～」は情報源の符号化と同じことになる。

シャノンの情報源符号化定理（シャノンの第一基本定理）。

シャノンの通信路符号化定理（シャノンの第二基本定理）。

ホレボ゠シューマッハ゠ウェストモーランドの定理（Holevo-Schumacher-Westmoreland (HSW) theorem）。

シューマッハの無雑音通信路符号化定理(Schumacher's quantum noiseless channel coding theorem)。
シャノンエントロピーに対するシャノンの情報源符号化定理とほぼ同じことがフォンノイマンエントロピーに対して成り立つ。